前言

笔者近期在学习 Graph Neural Network (GNN) 相关内容。由于学习资料较多且讲得很清晰,笔者将搜集到的学习资料汇总于此,方便后续复习。也期待这份学习资料的汇总能够帮助到读者。

GNN 基础概念理解

[1] 零基础多图详解图神经网络(GNN/GCN)【论文精读】_哔哩哔哩_bilibili

[2] 简单粗暴带你快速理解GNN_哔哩哔哩_bilibili

Graph Convolutional Network (GCN)

[1] 一文让你看懂图卷积神经网络(GCN)!!! - 知乎

[2] 简单粗暴带你理解GCN图卷积神经网络_哔哩哔哩_bilibili

Graph Attention Network (GAT)

[1] 向往的GAT(图注意力网络的原理、实现及计算复杂度) - 知乎

[2] 简单快速教你理解图注意力网络graph attention network_哔哩哔哩_bilibili

Graphormer

[1] 简单快速带你理解Graphormer:Graph和Transformer的结合_哔哩哔哩_bilibili

[2] Graphormer:融合GNN与Transformer - 知乎

GAT 和 Graphormer 的区别:

  • GAT 用图结构限制 attention 的范围, 即: 通过 $\text{mask}$ 操作仅 “看” 一阶邻节点

  • Graphormer 用图结构修正 attention 的打分, 即: 引入可学习的 (1) 最短路径项 和 (2) 最短路径上的边特征聚合项 作为图结构的先验知识来影响 attention 权重